Cao Hoan kéo quân đến Lạc Dương. Vì Nguyên Lãng không phải dòng đích, ông bèn phế cả Tiền lẫn Hậu Phế đế, lập Bình Dương vương Nguyên Tu, tức Hiếu Vũ đế. Hiếu Vũ đế phong ông làm Thượng trụ quốc, Bột Hải vương, cưới con gái ông làm Hoàng hậu.

Việc Cao Hoan chuyên quyền, tự do phế lập làm Hiếu Vũ đế rất bất mãn, nên nghe theo mưu Hộc Tư Xuân, Hạ Bạt Thắng, ngầm liên kết với em Thắng là Hạ Bạt Nhạc, khi ấy thống lĩnh vùng Quan Trung, để đối phó với Hoan. Bấy giờ, Hoan trở về căn cứ của mình ở Tấn Dương, để Cao Cán làm tai mắt cho mình ở Lạc Dương. Song Cán không đủ sức kiềm chế được Hiếu Vũ đế, bèn mật tấu về cho Hoan biết, bị Hiếu Vũ đế giết chết.

Để tránh hậu hoạn, Hoan sai thuộc hạ là Địch Tung sang thông đồng với Hầu Mạc Trần Duyệt để ám sát Nhạc. Ông lại phục kích giết Hột Đậu Lăng Ỷ Lợi để cướp quân đội của Ỷ Lợi. Hạ Bạt Nhạc bị giết rồi, ông sai Hầu Cảnh sang tây thống lĩnh quân đội của Nhạc, song bộ hạ của Nhạc là Vũ Văn Thái đã nhanh tay đoạt lấy quyền thống quản đạo quân ở Quan Tây. Lấy cớ báo thù cho Nhạc, Vũ Văn Thái khởi binh, phát hịch văn thảo phạt Cao Hoan.

Nhận thấy thế lực của Vũ Văn Thái có thể đối trọng được với Cao Hoan, Hiếu Vũ Đế bèn bí mật kết liên với Vũ Văn Thái để chống lại Cao Hoan. Năm 534, Hiếu Vũ đế mộ binh, phao tin để đánh Lương, song thực tế để chinh phạt Cao Hoan. Hộc Tư Xuân xin đích thân dẫn vài ngàn kỵ binh tập kích Hoan. Có người nói với Hiếu Vũ đế: "Đó là giết một Cao Hoan chỉ để mọc lên Cao Hoan khác".

Hoan bèn dẫn quân tiến về Lạc Dương. Hiếu Vũ Đế cho gọi Hạ Bạt Thắng, khi ấy là Đô đốc quân sự các châu giữa lưu vực sông Hoàng Hà và sông Hoài, và Vũ Văn Thái đến cứu viện. Quân cứu viện chưa tới, Hiếu Vũ đế theo lời Vương Tư Chính bỏ Lạc Dương chạy đến Trường An nương nhờ Vũ Văn Thái. Hoan bèn chiếm lấy Lạc Dương cùng các châu quận vùng Sơn Đông, Hoài Bắc, rồi sai người đánh Hạ Bạt Thắng ở Kinh Châu. Hạ Bạt Thắng bại trận, theo hàng nước Lương. Tất cả lãnh thổ từ Đồng Quan trở về phía Đông và từ sông Hoài trở lên phía Bắc đều thuộc quyền Cao Hoan.

Cao Hoan nhiều lần gửi thư xin đón Hiếu Vũ đế về Lạc Dương, đều bị cự tuyệt, bèn lập Nguyên Thiện Kiến lên ngôi, tức Hiếu Tĩnh đế và dời đô về Nghiệp Thành, kiến lập triều đình, sử gọi là Đông Ngụy. Tháng 12 cùng năm, Vũ Văn Thái giết Hiếu Vũ đế, lập Nguyên Bảo Cự lên ngôi, tức Văn Đế, định đô ở Trường An, sử gọi là Tây Ngụy. Từ đó, cục diện đối đầu Đông Ngụy và Tây Ngụy đã hình thành.